Haji Yusof bin Abdul Rahman bin Abdul Ghani dilahirkan di Sungai Pinang, Kelantan kepada Che Jamilah, ibunya, pada zaman pemerintahan Sultan Muhammad II. Pada tahun itu, Angin Besar melanda dan membawa kemiskinan kepada negeri Kelantan kerana banyak ternakan dan tanaman yang musnah; ada di kalangan penduduk Kelantan yang mati kebuluran dan ada yang terpaksa memakan pucuk kelapa atau pucuk pinang dan sebagainya untuk hidup.

Haji Yusof diasuh sebagai anak kesayangan Abdul Rahman. Beliau belajar di bawah Tuan Guru Haji Abdul Malek dan terutamanya dengan bapa sepupunya, Haji Abdul Latif Patani. Haji Yusof kemudian melanjutkan pendidikannya di Patani dan selepas itu, Haji Abdul Latif, bapa sepupunya itu, membawanya ke Makkah untuk menyambungkan pelajarannya kerana ibu bapanya miskin dan tidak dapat membiayainya. Haji Yusof tinggal di Makkah selama sepuluh tahun.

Haji Yusof belajar dengan Tok Wan Ali Kutan dan Haji Wan Ahmad bin Muhammad Zain Patani. Beliau belajar al-Quran dengan Haji Abdullah Senggora. Ketika belajar di Makkah, Haji Yusof telah bersahabat rapat dengan Tok Selehor, Tok Kenali, dan Pak Da Ail.